Theo tài liệu chính thức của Liên Xô thì Xô viết đầu tiên được thành lập trong thời gian của Cách mạng Nga lần thứ nhất, vào tháng 5 năm 1905 tại Ivanovo-Voznesensk (ngày nay là Ivanovo). Tuy nhiên, trong hồi ký của mình, Volin cho rằng ông đã chứng kiến sự thành lập của Xô viết Sankt-Peterburg vào tháng 1 năm đó. Xô viết này cùng các xô viết khác đã được tổ chức như là các cơ quan đại diện cho quyền lợi của các tầng lớp dân cư cụ thể và trấn áp các hành vi phản kháng.

Ban đầu các Xô viết là các cố gắng của tầng lớp thường dân trong việc thực thi dân chủ trực tiếp. Những người theo chủ nghĩa Marx tại Nga đã biến các xô viết thành công cụ chống lại nhà nước Đế quốc Nga trong giai đoạn từ Cách mạng tháng 2 tới Cách mạng tháng 10 năm 1917. Khi đó Xô viết Petrograd là một quyền lực chính trị hùng mạnh. Khẩu hiệu Вся власть советам ("Toàn thể chính quyền về tay Xô viết") đã từng rất phổ biến trong việc chống lại chính phủ lâm thời của A. F. Kerensky.